典範轉移

我們正從 「不惜一切代價追求效能」 的心態，轉向 負責任AI（RAI） 框架。在這個新時代，技術上的成功嚴格取決於倫理健全性與安全防護機制。

1. 受限最佳化

過去，目標是將損失函數 $L(\theta)$ 最小化。新典範將AI視為一個受限最佳化問題：$$\max P \text{ subject to } C_1, C_2, \dots, C_n$$ 其中 $C$ 代表不可妥協的安全與公平門檻。

2. 「體外」與「體內」之間的落差

模型在靜態基準測試上常常能達到最先進（SOTA）的成果（體外），但在真實世界的社會技術環境中卻可能出現災難性的失敗（體內），這是由於無法預見的交互作用所致。

左圖：高準確度與速度，零安全與透明度。右圖：均衡的六邊形，代表安全、公平與可解釋性。

範例：高頻交易

僅以效能為導向的模型若能最大化投資報酬率（ROI）就算成功。而一個負責任AI模型若達到高ROI卻引發 「閃電崩盤」 即屬失敗，因為缺乏市場穩定的防護機制。